1972年新年过后，处于审查阶段的彭德怀突然沉默了，他不说不笑，也不骂人，每天大便四五次，便前总是重复着一句话：“肚子不好，要快！”

不久以后，在周恩来的指示下，医生为彭德怀做了身体检查，还抽了血，抽血结果显示正常。实际上，致命的癌细胞这时已经在噬蚀着彭德怀的生命了。

1973年4月10日，彭德怀一次便血800—1000毫升，专案组马上将这一情况报告给了周恩来，并建议送医院检查。但直到大出血的第7天晚上，彭德怀才被送到解放军301医院就诊，最后确诊为直肠癌，已属晚期。

1974年8月，彭德怀的病情越来越重，叶剑英得知以后，派人去看望他，问他“有什么事要说”。

9月2日，专案组的两个人来到了彭德怀的病房，彭德怀躺在病床上，艰难地、断断续续地向他们说：“毛主席发展了马列主义……我们的社会主义事业一定能胜利……我们国家建设、战略防御设施不完备，国防工业和科研跟不上需要，这是我最担心的……我自己犯有很多错误，但我不搞阴谋诡计，在这一点上，我是清白的……”

专案组的人回去以后，向叶剑英报告彭德怀的病情：“左侧肢体偏瘫，右下肢浮肿，小便失禁，舌头发硬，说话不清。”

叶剑英呆呆地坐在那里，一句话也没有说。

1974年11月29日，彭德怀不幸病逝，享年76岁。

彭德怀去世后，聂荣臻首先提出要为他平反。1975年5月7日，邓颖超来到聂荣臻家里看望他，聂荣臻对邓颖超说：

彭老总已经逝世，他有很大的战功，为人刚直。一位共和国的元帅，红卫兵把他从四川押回北京时，在火车上就遭受到残酷折磨，竟被打断了几根肋骨，令人非常气愤。请你转报恩来同志，建议为彭老总平反昭雪。

但在当时的形势下，为彭德怀平反昭雪还不可能做到。1976年10月，“四人帮”被粉碎以后，党内外各种冤案的平反工作终于有了条件，此时陈云挺身而出，说了这么一段话：

由于毛泽东的神化地位，由于人们知道他的话是不能拂逆的圣旨，对彭德怀事件是这样明显不公平的事，是谁也碰不得、讲不得的，谁讲话谁就倒霉。

陈云讲完这番话以后，为彭德怀等开国元勋平反昭雪的呼声越来越高，势不可挡。彭德怀的侄女彭梅魁也不断登门拜访杨尚昆、黄克诚等中央领导，请他们向中央反映，重新审查彭德怀的案子。

1978年夏天，在真理标准问题的大讨论中，彭德怀的另一位侄女彭钢写了一封申诉信，据实说明了那些强加给彭德怀的诬陷不实之词，她把信交给了彭德怀的老战友王震。王震看完申诉信后，连声叫好，他亲笔作了一些修改，并叮嘱彭钢再抄一遍，由他当面交给邓小平。

同样在1978年，邓小平在两次会见外宾时，意味深长地说：

彭德怀大概和我差不多，他有缺点，有错误，但功绩还是比错误多。

在邓小平、陈云等人的推动下，党的十一届三中全会结束后，中央正式决定为彭德怀平反，并把为彭德怀起草悼词的任务交给了《解放军报》的副社长姚远方。不过当时仍有人认为不能给彭德怀以很高的评价，他们向姚远方施加压力，要求他把彭德怀的“缺点”写进悼词里，这让姚远方感到十分为难，他写过那么多悼词，从来没听说过要在悼词里写“缺点”的！

最后还是邓小平亲自出马，为彭德怀作了“国内和国际著名的军事家和政治家”的公正评价，这也为姚远方的悼词定了调。

彭德怀的追悼会召开前，他的侄女彭梅魁、彭钢、侄子彭康白联名向中央办公厅提出：浦安修不能以“夫人”的身份参加追悼活动，理由是1962年，浦安修感到彭德怀恢复名誉无望，曾主动提出要和他离婚，此后的10多年里，在彭德怀最需要人去安慰的时候，浦安修一次也没有去看过他。

厅里的领导感到十分为难，只好请黄克诚去做彭钢等人的工作，黄克诚对他们说：

当时是个特殊的历史环境，人的性格都扭曲了，不能以当时发生的事情做依据来评判人。尽管浦安修提出过离婚，可没有哪个机关批准他们离婚，既然没有离婚手续，当然还是合法夫妻。那时浦安修每回一次彭总的住处，回到北师大后，组织上就逼她写汇报，她是何等的违心、何等的无奈呀！她能从‘运动’中走过来，也不容易。

彭钢认为黄克诚的话很有道理，她又想起彭德怀生前曾说过浦安修是好人，浦安修也没有在专案人员的压力下，“揭发”彭德怀的什么问题，最后她也就原谅了浦安修。

1978年12月24日，彭德怀的追悼大会在人民大会堂隆重召开，追悼会由叶剑英主持，邓小平在会上含泪致了悼词：

彭德怀同志是我党的优秀党员、老一辈无产阶级革命家，是我们党、国家和军队的杰出领导人。
彭德怀同志在近半个世纪的革命斗争中，南征北战，历尽艰险，为中国革命战争的胜利，为人民军队的成长壮大，为保卫和建设社会主义祖国，做出了卓越贡献……

彭德怀的追悼会结束后，他的骨灰被安放在八宝山革命公墓殡仪馆第一室。从此以后，彭德怀与他的老战友朱德、贺龙、陈毅元帅一起，长眠于八宝山。